iT邦幫忙

2025 iThome 鐵人賽

DAY 20
0
  1. 模型管理設計
    • 在 config 檔(YAML/JSON)中定義 模型清單:名稱、路徑、用途 (e.g. “btc_usdt_orderbook”, “gold_5m”)
    • 設計一個 ModelManager:負責載入、快取、釋放模型
  2. 模型載入
    • 支援 動態載入:根據策略需求才載入 .so / TorchScript / ONNX
    • 模型需用唯一 key (model_id) 管理,避免覆蓋
    • 考慮 lazy loading(第一次需要時才初始化,減少啟動時間)
  3. 模型輸入適配
    • 為不同模型設計 FeatureAdapter,避免資料格式耦合
    • 支援多種輸入來源:kline、orderbook、交易量等
  4. 推論調度
    • 定義一個 async 推論 API,允許:
      • 單一請求 → 單一模型
      • 單一請求 → 多個模型 (ensemble, voting)
    • 確保高頻情境下,推論可並行 (Tokio / thread pool)
  5. 資源監控
    • 模型多了會佔記憶體 → 加入監控 (CPU, RAM, latency)
    • 規劃最大載入數量,或設置「LRU」策略釋放不用的模型
  6. 回測 / 模擬驗證
    • 驗證多模型同時載入下的效能
    • 測試不同策略組合是否能正確呼叫到對應模型
  7. 錯誤處理
    • 單個模型載入失敗,不影響其他模型運行
    • 若推論失敗 → fallback 至 baseline 策略
  8. 部署
    • 配置檔支持快速切換模型版本(例如模型升級,不需改程式碼)
    • 在 CI/CD pipeline 增加模型驗證步驟

不好意思,要等身體康復才能回來完成


上一篇
【Day19】- 整合推論模型進入主系統
下一篇
【Day21】- 整合預測和風險管理
系列文
NautilusTrader 架構解析:Rust 在高效能量化交易平台中的角色與優勢22
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言